Standard language model training employs gold human documents or human-human interaction data, and treats all training data as positive examples. Growing evidence shows that even with very large amounts of positive training data, issues remain that can be alleviated with relatively small amounts of negative data -- examples of what the model should not do. In this work, we propose a novel procedure to train with such data called the CRINGE loss (ContRastive Iterative Negative GEneration). We show the effectiveness of this approach across three different experiments on the tasks of safe generation, contradiction avoidance, and open-domain dialogue. Our models outperform multiple strong baselines and are conceptually simple, easy to train and implement.
translated by 谷歌翻译
通过与环境进行互动而没有任何外部监督是一个重要的挑战，可以通过与环境进行互动来学习各种技能。特别是，获得可以达到任何给定状态的目标条件的代理在许多应用中都有用。我们提出了一种新的方法，用于训练这种目标条件的代理，而没有任何外部奖励或任何领域知识。我们使用随机步行来训练可及性网络，以预测两个状态之间的相似性。然后，该可达性网络将用于构建目标记忆，其中包含过去的观察结果，这些观察值多样化且平衡。最后，我们训练一个目标条件条件的政策网络，其目标是从目标记忆中取得的目标，并通过可达性网络和目标记忆进行奖励。当代理商发现并学习新目标时，所有组件在整个培训中都进行了更新。我们将方法应用于连续的控制导航和机器人操纵任务。
translated by 谷歌翻译
当前的语言模型达到了较低的困惑，但其产生的几代人仍然遭受有毒的反应，重复性和矛盾。标准语言建模设置无法解决这些问题。在本文中，我们介绍了一个新的体系结构{\ sc导演}，由一个统一的生成器分类器组成，具有语言建模和每个输出令牌的分类头。培训是使用标准语言建模数据共同进行的，并以所需和不良序列标记的数据。与标准语言模型相比，该模型在多种设置中的实验表明，该模型具有竞争性的培训和解码速度，同时产生了较高的结果，从而减轻了已知的问题，同时保持发电质量。就准确性和效率而言，它还优于现有的模型指导方法。
translated by 谷歌翻译
在这项工作中，我们提出了一种用于图像目标导航的内存调格方法。早期的尝试，包括基于RL的基于RL的方法和基于SLAM的方法的概括性能差，或者在姿势/深度传感器上稳定稳定。我们的方法基于一个基于注意力的端到端模型，该模型利用情节记忆来学习导航。首先，我们以自我监督的方式训练一个国家安置的网络，然后将其嵌入以前访问的状态中的代理商的记忆中。我们的导航政策通过注意机制利用了此信息。我们通过广泛的评估来验证我们的方法，并表明我们的模型在具有挑战性的吉布森数据集上建立了新的最新技术。此外，与相关工作形成鲜明对比的是，我们仅凭RGB输入就实现了这种令人印象深刻的性能，而无需访问其他信息，例如位置或深度。
translated by 谷歌翻译